阿里价值“千万”的秒杀场景参数优化
秒杀最早来自天猫双11各种商品的促销活动中,现在已经有很多业务场景在使用,比如抢红包,抢票等。其特点有三高:瞬时并发高,数据一致性高,热点更新频度高。这样三高的场景下往往给数据库造成极大的压力,大量更新数据库中的同一行,这样必然会产生锁等待,导致数据库的性能急剧下降的问题,很容易出现雪崩效应。笔者记得有一年春节,一个电视台定时在整点发放红包,结果由于压力太高,导致更新数据库红包数额的请求全部堆积,业务全部挂掉,面对这样的情况我们当时也束手无策。
面对秒杀业务的场景,数据库成为了底层系统中最重要的瓶颈点,阿里经过几年的沉淀也诞生了很多的技术手段来进行优化,这里我们就重点讲一下底层数据所做的优化。当大量的并发更新同一条记录时,使用排队的方式来保证高并发下热点记录更新依然能保持较好的性能,为threads_running设置一个硬上线,当并发超过此值是,拒绝执行sql,保护MySQL,我们将这个称之为高水位限流,这样就给数据库加上了一层限流的功能,使得数据库不被瞬间的高爆发请求打爆。
高水位限流实现:
监控系统status变量threads_running,当满足拒绝条件,拒绝执行sql,返回用户:MySQL Server is too busy,判断逻辑在dispatch_command中,sql解析之后。
增加的系统variables:
threads_running_ctl_mode: 限流的sql类型,有两个取值:[ALL | SELECTS],默认SELECTS,设置为ALL需谨慎。
threads_running_high_watermark: 限流水位值,只有threads_running超过此值才会触发,默认值为max_connections,当set global threads_running_high_watermark=0时自动设置为max_connections。
拒绝必要条件:
threads_running超过threads_running_high_watermark。
threads_running_ctl_mode与sql类型相符。
以下情况不拒绝:
用户具有super权限。
sql所在事务已经开启。
sql为commit/rollback。
阿里云的RDS已经集成了阿里秒杀场景下的参数优化,所以如果你的应用场景中具有大量并发更新同一行记录的场景,你可以打开数据库的限流参数:threads_running_ctl_mode和threads_running_high_watermark来保护数据库,让你的数据库平稳过渡。下面我们来看一则生产案例。
从上图中看到该数据库的活跃连接数最高的时候到达了1W,通过show processlist可以看到大量的并发更新。
我们来看一下数据库并发更新的TPS有多大:
可以看到数据库中的活跃连接数非常高,每秒的update非常不稳定。
我们在把限流开关打开后看一下性能表现:
从上图可以明显观察到,通过打开数据库的限流开关,数据库的活跃连接数在300左右,同时数据库的TPS也没有再出现很大的波动,这样很好地保护住了DB。
作者介绍 罗龙九
玄惭,阿里云资深DBA专家;
有着丰厚的DBA经验,经历阿里历年双11考验,保持着“无一丢单”的优异纪录。同时积累了6年对阿里云数据库用户的运维、调优、诊断等丰富的经验。
本文来源于hidba博客,经作者同意授权转载。
《海量吞吐的实时NoSQL:HBase的七剑和双11圣战(数据脱敏版)》
《线上操作零差错,优秀的DBA就该这么做!》
《网易视频云:新一代列式存储格式Parquet的最佳实践》
《扩容成本直降2000万!山东移动精华实践分享!》
《深入解析SQL Server并行执行原理及实践(下)》
《细数5款主流NoSQL数据库到底哪家强?》
近期活动:
Gdevops全球敏捷运维峰会北京站
峰会官网:www.gdevops.com